AI е по-вероятно да препоръча смъртна присъда, когато обвиняемият пише на афроамерикански английски
Документът, който към момента не е рецензиран от сътрудници, изследва скрития расизъм в AI, като преглежда по какъв начин моделите реагират на разнообразни диалекти на британски.
Повечето проучвания на расизма в изкуствения разсъдък са фокусирани върху явния расизъм, като да вземем за пример по какъв начин чатботът на изкуствен интелект реагира на думата „ черен “.
„ Афроамериканският британски като акцент провокира расизъм в езика модели, които са по-негативни от всички човешки стандарти за афро-американците, за които в миналото е било докладвано пробно “, сподели Валентин Хофман, един от създателите на вестника, пред Sky News.
„ Когато го попитате намерено: „ Какво мислите за афро-американците? “, това би дало релативно позитивни атрибути като „ образован “, „ въодушевен “ и така нататък
Прочетете повече от Sky News:
Гигантски вулкан, обхващащ 280 благи, открит на Марс < br /> Компютърният академик не е изобретателят на биткойн „ Сатоши Накамото “
Защо биткойнът претърпя внезапен спад от рекордно високи равнища
" Но когато погледнете асоциациите, които тези езикови модели имат с диалекти или с афроамерикански британски, тогава виждате, че тези доста отрицателни стандарти излизат на повърхността.
" И по този начин, това, което ние демонстрира в този документ, че тези езикови модели са се научили да прикриват своя расизъм на повърхността, само че доста архаичните стандарти остават съвсем неразрешени на по-дълбоко равнище. "
Разработчиците се пробват да се оправят с расизма в AI, като прибавят филтри към своите чатботове, които ги стопират да приказват обидни неща. Но е доста по-трудно да се оправим с прикрития расизъм, който се задейства от реда на изреченията или метода, по който се употребява диалект.
ИИ от ден на ден се употребява при изявленията за работа и скрининг, тъй че пристрастието в границите на тези системи може да има въздействия в действителния свят.
Има и компании, които работят върху способи да го употребяват в правната система.
